`x+my=m+1=>x=m+1-my` thế vào dưới

`=>m(m+1-my)+y-3m+1=0`

`<=>m^2+m-my^2+y-3m-1`

`=>y(1-m^2)=2m-1-m^2`

Hệ có no duy nhất

`=>1-m^2 ne 0=>m ne +-1`

`=>y=(-1+2m-m^2)/(1-m^2)=(m-1)/(m+1)`

`=>x=m+1-my=((m+1)^2-m(m-1))/(m+1)=(3m+1)/(m+1)`

`=>xy=((3m+1)(m-1))/(m+1)^2=(3m^2-2m-1)/(m+1)^2`

Xét `xy+1`

`=(3m^2-2m-1+m^2+2m+1)/(m+1)^2=(4m^2)/(m+1)^2`

`=>xy+1>=0=>xy>=-1`

Dấu "=" xảy ra khi `m=0`

\(\left\{{}\begin{matrix}\left(m-1\right)x-my=3m-1\\2mx-my=m^2+5m\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}\left(m-1\right)x-my=3m-1\\\left(m+1\right)x=m^2+2m+1\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}\left(m-1\right)x-my=3m-1\\\left(m+1\right)x=\left(m+1\right)^2\end{matrix}\right.\)

Pt có nghiệm duy nhất \(\Leftrightarrow m\ne-1\)

Khi đó: \(\left\{{}\begin{matrix}x=m+1\\y=m-3\end{matrix}\right.\)

\(x^2-y^2=4\Leftrightarrow\left(m+1\right)^2-\left(m-3\right)^2=4\)

\(\Leftrightarrow8m=12\Rightarrow m=\dfrac{3}{2}\)

a) Thay m=2 vào hệ phương trình, ta được: 

\(\left\{{}\begin{matrix}x-2y=5\\2x-y=7\end{matrix}\right.\Leftrightarrow\left\{{}\begin{matrix}2x-4y=10\\2x-y=7\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}-3y=3\\x-2y=5\end{matrix}\right.\Leftrightarrow\left\{{}\begin{matrix}y=-1\\x=5+2y=5+2\cdot\left(-1\right)=3\end{matrix}\right.\)

Vậy: Khi m=2 thì hệ phương trình có nghiệm duy nhất là (x,y)=(3;-1)

=>y=(m+1)x-m-1 và x+(m^2-1)x-m^2+1=2

=>x=2-1+m^2/m^2 và y=(m+1)x-m-1

=>x=(m^2+1)/m^2 và y=(m^3+m^2+m+1-m^3-m^2)/m^2=(m+1)/m^2

x+y=(m^2+m+2)/m^2

Để x+y min thì m^2+m+2 min

=>m^2+m+1/4+7/4 min

=>(m+1/2)^2+7/4min

=>m=-1/2

Để hệ phương trình có nghiệm duy nhất thì \(\dfrac{1}{m}\ne\dfrac{m}{1}\)

=>\(m^2\ne1\)

=>\(m\notin\left\{1;-1\right\}\)

\(\left\{{}\begin{matrix}x+my=m+1\\mx+y=3m-1\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}mx+m^2y=m^2+m\\mx+y=3m-1\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}y\left(m^2-1\right)=m^2+m-3m+1\\x+my=m+1\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}y=\dfrac{m^2-2m+1}{\left(m-1\right)\left(m+1\right)}=\dfrac{\left(m-1\right)^2}{\left(m-1\right)\cdot\left(m+1\right)}=\dfrac{m-1}{m+1}\\x=m+1-my\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}y=\dfrac{m-1}{m+1}\\x=m+1-\dfrac{m^2-m}{m+1}=\dfrac{m^2+2m+1-m^2+m}{m+1}=\dfrac{3m+1}{m+1}\end{matrix}\right.\)

Để x,y đều là số nguyên thì \(\left\{{}\begin{matrix}m-1⋮m+1\\3m+1⋮m+1\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}m+1-2⋮m+1\\3m+3-2⋮m+1\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}-2⋮m+1\\-2⋮m+1\end{matrix}\right.\)

=>\(m+1\in\left\{1;-1;2;-2\right\}\)

=>\(m\in\left\{0;-2;1;-3\right\}\)

mà \(m\notin\left\{1;-1\right\}\)

nên \(m\in\left\{0;-2;-3\right\}\)

Lời giải:
Từ PT$(1)\Rightarrow x=m+1-my$. Thay vô PT(2):

$m(m+1-my)+y=3m-1$

$\Leftrightarrow y(1-m^2)+m^2+m=3m-1$

$\Leftrightarrow y(1-m^2)=-m^2+2m-1(*)$

Để hpt có nghiệm $(x,y)$ duy nhất thì pt $(*)$ cũng phải có nghiệm $y$ duy nhất 

Điều này xảy ra khi $1-m^2\neq 0\Leftrightarrow m\neq \pm 1$
Khi đó: $y=\frac{-m^2+2m-1}{1-m^2}=\frac{-(m-1)^2}{-(m-1)(m+1)}=\frac{m-1}{m+1}$

$x=m+1-my=m+1-\frac{m(m-1)}{m+1}=\frac{3m+1}{m+1}$

Có:

$x+y=\frac{m-1}{m+1}+\frac{3m+1}{m+1}=\frac{4m}{m+1}<0$

$\Leftrightarrow -1< m< 0$

Kết hợp với đk $m\neq \pm 1$ suy ra $-1< m< 0$ thì thỏa đề.

Để phương trình có nghiệm duy nhất thì \(\dfrac{m-1}{2}\ne\dfrac{-m}{-1}=m\)

=>\(m-1\ne2m\)

=>\(m\ne-1\)

\(\left\{{}\begin{matrix}\left(m-1\right)x-my=3m-1\\2x-y=m+5\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}\left(m-1\right)x-my=3m-1\\y=2x-m-5\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}y=2x-m-5\\\left(m-1\right)x-m\left(2x-m-5\right)=3m-1\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}y=2x-m-5\\\left(m-1\right)x-2xm+m^2+5m=3m-1\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}y=2x-m-5\\x\left(m-1-2m\right)=-m^2-5m+3m-1\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}y=2x-m-5\\x\left(-m-1\right)=-m^2-2m-1=-\left(m+1\right)^2\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}y=2x-m-5\\x\cdot\left(-1\right)\cdot\left(m+1\right)=-\left(m+1\right)^2\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}x=m+1\\y=2\left(m+1\right)-m-5=2m+2-m-5=m-3\end{matrix}\right.\)

\(x^2-y^2=24\)

=>\(\left(m+1\right)^2-\left(m-3\right)^2=24\)

=>\(m^2+2m+1-m^2+6m-9=24\)

=>8m-8=24

=>m=4(nhận)